Ban đầu Cao Kiệt đi theo Lý Tự Thành, tham gia khởi nghĩa. Tháng 8 nhuận năm Sùng Trinh thứ 7 (1634), tổng đốc Trần Kỳ Du sai tham tướng Hạ Nhân Long cứu Lũng Châu, Nhân Long sau đó bị nghĩa quân vây khốn trong thành Lũng Châu. Tự Thành lệnh cho Kiệt gởi thư hẹn Nhân Long ra hàng (Nhân Long cũng là người Mễ Chi), ông ta không trả lời. Sứ giả trở về, gặp Kiệt trước rồi mới gặp Tự Thành. Nghĩa quân vây thành 2 tháng không hạ được, Tự Thành nghi ngờ Kiệt, sai bộ tướng khác thay thế, Kiệt quay về giữ doanh trại. Vợ Tự Thành là Hình thị nhiều mưu trí, cai quản quân tư, phân phối lương thực, binh khí mỗi ngày. Kiệt đi qua doanh trại của bà ta, phải khớp thẻ xác nhận. Hình thị vừa lòng với tướng mạo của ông, cùng nhau tư thông, sợ bị Tự Thành phát giác, tìm cách quy hàng triều đình.

Tháng 8 năm sau, ông trộm lấy Hình thị về hàng triều đình. Hồng Thừa Trù giao cho Nhân Long, sai hiệp đồng với du kích Tôn Thủ Pháp (cũng là hàng tướng) đánh phá nghĩa quân. Kiệt chấp nhận lập công để làm tin, từ đây ở dưới trướng của Nhân Long.